Khi Chiến dịch Barbarossa nổ ra, Boldin đang là một phụ tá cho Đại tướng Dmitry Pavlov, chỉ huy Quân khu miền Tây. Cả hai đều thấy những dấu hiệu rõ ràng về cuộc tấn công sắp xảy ra, nhưng cảnh báo của họ với Bộ Tổng tư lệnh tối cao đã bị phớt lờ. Cuối ngày 22 tháng 6, Pavlov ra lệnh cho Boldin qua điện thoại để tổ chức một cuộc phản công chống lại các lực lượng Đức đang tiến vào Grodno. Boldin đã bay trên một chiếc máy bay hạng nhẹ dưới hỏa lực mạnh đến sở chỉ huy của Tập đoàn quân 10 gần Białystok.[6] Trong tình trạng hỗn loạn đang phổ biến, Hồng quân không thể thực hiện bất kỳ cuộc tấn công hiệu quả nào, và đến ngày 27 tháng 6, các Tập đoàn quân 3, 4 và 10 đều bị bao vây ở phía tây Minsk. Boldin đã lãnh đạo một nhóm khoảng 1.650 sĩ quan và chiến sĩ đã chiến đấu trong 45 ngày để phá vây. Cuối cùng, vào ngày 10 tháng 8, nhóm của ông đã đột phá đến phòng tuyến của Liên Xô gần Smolensk. Lệnh STAVKA số 270 ca ngợi chiến công của "sư đoàn" Boldin, và ông đã trở thành một anh hùng được nhiều người biết đến trong những ngày đen tối đó.[7]

Nhiệm vụ tiếp theo của ông là trở lại Phương diện quân Tây Bắc được tái thành lập, với tư cách là cấp phó cho người bạn cũ của ông, tướng Ivan Konev. Khi Cụm tập đoàn quân Trung tâm của Đức phát động Chiến dịch Typhoon vào ngày 2 tháng 10, Boldin được giao chỉ huy một nhóm tác chiến của phương diện quân, một lần nữa tiến hành một cuộc phản công chống lại các lực lượng Đức đang tiến đến. Lần này ông gặt được thành công hơn một chút so với lần đầu tiên, nhưng ngay sau đó ông và cụm của mình bị bao vây gần Vyazma.[8] Trong quá trình đột phá, Boldin bị thương và phải nằm viện điều trị trong tháng tiếp theo ở Moskva.[9]

Cuối tháng 11, ông được Nguyên soái Boris Shaposhnikov, Tổng tham mưu trưởng Hồng quân, triệu tập đến một cuộc họp và được giao chỉ huy Tập đoàn quân 50, hiện đang ở Phương diện quân Tây và bảo vệ thành phố Tula. Chỉ huy trước đó, Thiếu tướng A.N. Yermakov, đã bị bắt vì bỏ rơi trách nhiệm của mình khi tập đoàn quân đã bị bao vây một phần tại Bryansk.[10] Boldin sau đó thừa nhận rằng bảo vệ thành phố chống lại tướng Guderian là một nhiệm vụ đầy thử thách để thực hiện. Nhưng mặc dù Tula đã bị công kích mãnh liệt vào đầu tháng 12, nó chưa bao giờ bị thất thủ. Cùng với Tập đoàn kỵ binh cận vệ 1 và các tập đoàn quân 10, 50 được xây dựng lại, Hồng quân đã tiến hành cuộc tấn công và đánh đuổi lực lượng của Guderian từ các hướng phía nam đến Moskva vào cuối tháng đó.[11]

Boldin tiếp tục nắm quyền chỉ huy Tập đoàn quân 50 cho đến tháng 2 năm 1945, được thăng cấp Thượng tướng vào ngày 15 tháng 7 năm 1944.[12] Mặc dù ông được truyền thông vẽ ra như là một anh hùng, nhưng cấp trên lại xem những chiến tích quân sự của ông rất hạn chế; Tập đoàn quân 50 thường có sức mạnh tương đối thấp và được sử dụng trong các vai trò thứ yếu. Tháng 10 năm 1943, tập đoàn quân được chuyển đến Phương diện quân Belorussia và Boldin dưới quyền chỉ huy của tướng Konstantin Rokossovsky. Boldin tiếp tục được giữ ở một số vai trò hạn chế cho đến khi tập đoàn quân của ông được chuyển sang Phương diện quân Belorussia 2 vào tháng 4 năm 1944. Sau đó, vào tháng 11, Rokossovsky được chuyển đến Phương diện quân Belorussia 2, và một lần nữa Boldin dưới quyền chỉ huy của ông ta. Khi Chiến dịch Đông Phổ bắt đầu vào ngày 14 tháng 1 năm 1945, Tập đoàn quân 50 được cử đi giám sát các lực lượng Đức đang phòng thủ dọc theo kênh Augustów. Tất cả, trừ một hậu quân nhỏ trong số đó đã bỏ trốn để chiến đấu với lực lượng chính của phương diện quân và phải 48 giờ sau Boldin mới nhận ra, đồng thời báo cáo rằng toàn bộ lực lượng vẫn còn tại chỗ. Rokossovsky đã thấy đủ, và vào tháng 2, ngay khi tập đoàn quân được chuyển đến Phương diện quân Belorussia 3, Boldin được miễn nhiệm, và tham mưu trưởng của ông ta, Trung tướng F.P. Ozerov, đã tiếp quản trong thời gian này.[13][14]

Sau hai tháng hoạt động bên lề chiến sự, Boldin được bổ nhiệm làm phó tư lệnh Phương diện quân Ukraina 3 trong những tuần cuối cùng của cuộc chiến.